你把头像改成猛男，也无法避免「算法」的风险

作者=王芊霓

媒体=澎湃新闻

今天早上看到朋友圈文章，几个女孩子都把滴滴打车的头像资料改成了猛男。乍一看好笑，但莫名感觉好心酸。

她们这么做无非是试图自保，“吓跑”那些不安好心的顺风车司机，这个手动淘汰机制也算是对滴滴的一个小小反抗吧。

可是这招真的有用吗？我的朋友在这篇文章下面留言：结果很可能就是她很难打到车了。

在个体无法控制未知风险的时候，人们有自保和提高警惕的想法是自然而然的。问题是那多大程度的改变是足够的？自保又在多大程度上真的有用？

滴滴是如何走向“邪恶”的？

一位曾服务于美团和滴滴的境外投资者，署名“伦敦交易员”的作者认为，滴滴为了维持更高的估值，圈进更多的资本来扩张，而需要“具有想象力”的故事，在他们的眼里就是“就怕你不约”的异性社交。

她还分析了“顺风车”社交的产品“优势”：男女比例均衡、车内场景封闭（姑娘不能轻易下车）等。换言之，滴滴顺风车在经济刺激不足的情况下，靠异性社交弥补，抓住了顺风车主“能赚个油钱，还能勾搭个妹子”的心理动机。一段时间以来，滴滴顺风车甚至还搞过“我们约会吧”的广告、“不怕贴标签、就怕你不约”的口号，甚至鼓励车主对乘客的长相、气质进行评价。

在澎湃新闻的报道中，记者总结道，在上车前司机就知道你是“丝袜美女”了。有顺风车主称“自己只接女性，丑的不接”。有男性抱怨被顺风车司机拒载，也间接证实了“贴标签”的后果。

最可怕的是，这样的机制成为了一种恶性逆淘汰机制：那些只想老实赚点油钱的车主可能会因隐形成本高昂而退出，只把“另有所图”的老司机给留下来了。更可怕的是，网上随处可见“老司机手把手教你用滴滴打车来约妹”的帖子，以及“如何抢到空姐单”的攻略贴。

滴滴的产品经理真的不明白他们产品设计的潜在风险吗？

我不相信存在所谓中立的技术，因为技术是为了人类生活服务的，也总是带有目的性的。莱斯特大学的讲师陈玉洁认为，此次滴滴乘客遇害凸显的正是数据肆无忌惮的越界造成的不良反应。

以此次事件为例，滴滴的数据科学家们对数据的使用显然更多的是在利用整个社会对女性的偏见。"性别友好"不在他们的词典里，他们对打破社会偏见更是毫无兴趣，能以她们为“诱饵”吸引到更多的“直男”用户注册，何乐而不为？

滴滴的邪恶还在于它“丧心病狂”的把用户带进线下的封闭空间了，这也是滴滴比陌陌等线上社交平台更加邪恶的原因。

算法时代让社会弱势群体更加危险

包括共享经济平台在内的很多互联网科技企业都坚决否认自己是服务提供者，只是服务提供者和获取者之间的联结者，以对他们的社会责任“甩锅”。这套说辞下，共享平台不用给司机缴纳社保、代扣税，乘客出了事，也可以马上甩锅。以此次空姐顺风车遇害事件为例，互联网平台经济的暗黑一角再次被揭开：它让原本弱势的群体更加弱势。 

有些吊诡的是，在滴滴此次恶性案件中，侵害人和受害人都是最容易冒风险的弱势群体。

算法将不可避免地让阶层地位更高的人受益，在美国他意味着受教育程度更高的白人男性。在中国，他意味着经济宽裕的直男。

上层人士会发现，这些工具便利、安全，非常有用，他们鲜少抱怨共享经济伤害了他们。譬如我的机长朋友，他从来只打专车，听专车司机提起过他们的审核机制更严格之后就更加不选择价格低廉的快车、顺风车了。

而新技术的危害则往往被社会中处于弱势地位的人群所承受，在空姐遇害案爆出后，帖文的评论大部分都是女性、女学生群体。

滴滴顺风车的“印象标签”的糟糕之处在于它损害了“匿名性”。匿名性保证了人们有做事情的能力，但没有人知道你是谁。我开头提到的几个女孩子，她们把头像资料改成猛男也正是为了在滴滴后台重新恢复自己的“匿名性”，而不是之前被动的被贴标签。

在人类学家看来，匿名是人类文明中的一种核心互动，因为没有它，我们就不会有各种新的合作。我们不会有像维基百科这样的伟大互联网产品，不同类型的社会群体的融合也更加艰难。

但是并不像我们想象的那样发达国家就做得更好。以美国为例，关于种族的数据是被输入大数据的，也就是关于个人种族身份的“匿名性”根本无法保证，它带来的结果就是，由于种族和经济背景的数据，数据背后的人也已经系统性的被决定为“高风险个体”了，譬如黑人的身份数据往往意味着更高的保释费、更长的坐监时间。这无疑进一步再生产了他们的弱势地位。

在现实中，算法和共享经济并没有给我们一个乌托邦的世界：鼓励资源分享，社区和谐相处，打破传统交通行业的垄断。实际上它加强了歧视、扩大了阶级差异，甚至导致弱势群体的处境更加糟糕。

曾经有一位著名的分享经济平台的老总还说互联网+将颠覆传统交通行业“忽视用户的体验”的弊端。可是如今我们看到的却是，如技术专家熊节所说，今天的职业司机的状况比二十年前还要糟糕，滴滴的垄断使得它不断压低司机的报酬、延长他们的工作时间。而对用户呢？2016年浙江东阳市女乘客投诉被司机性骚扰后只得到了50元的快车券的补贴。

大数据和算法的使用让社会弱势群体处于更加危险的境地一个原因是“视野失灵（ horizon deficiency ）” ：除了近在眼前的事情，人们看不到其他风险所在。

共享经济的风险是很多普通民众意识不到的，而我们媒体人能做的就是提醒公众让他们意识到自己进入了“视野失灵”的模式。

解决方案：给数据科学家洗脑

大部分普通人都不知道关于自己的数据是如何被分享和使用的。而每一天，我们的身份都正在被变成资本谈判的工具、被放在各种风险中。滴滴事件只是暴露了冰山一角。

我们能做些什么吗？

署名“张累累”的作者在《一群年轻女性给滴滴的信：请给我们一个免于恐惧的理由》中主张滴滴除了应该加强对司机的审核，以及投诉机制的通畅高效外，还应该在车上配反性骚扰小册子给乘客。

还应当加强对顺风车的路线规范，反馈非正常路线偏离以及非正常停车。

滴滴的紧急求助按钮应当着重标识；在司机接单后应自动发送给乘客安全提示，告知如何用按钮求助或报警。

滴滴的相互评价系统当中不应当提供与出行内容无关选项，如司机进行物化女性等的评价，应当进行降级，降级到一定程度不应接单。

这些都是很好的具体建议。但是更重要的是对我们的数据科学家进行洗脑。因为他们是算法时代的掌舵人。

我们必须知道这些互联网企业的高层到底是些什么人，必须知道他们的价值是什么？他们接受过怎样的训练？

我们如何能够影响他们运用自己的财富和权力的方式？从某种程度上而言，这些公司的领导的影响力不亚于政治家，而他们如何言行举止，如何平衡企业扩张和社会责任，是一个亟待关注的问题，而公众却对此一无所知。

人类学家Tracia Wang 在纽约经营一家名为“SUDDEN Compass”的咨询公司。她是一位擅长“厚数据”的科技咨询者。厚数据，顾名思义，比大数据更有厚度，更讲究数据的“质”而不是“量”。Tracia认为仅仅强调数据的量和规模是不够的，定性的数据、描述性的数据，厚数据才是未来应该被重视的。

Tracia Wang https://www.triciawang.com/

在纽约，她的工作就包括不断的说服数据科学家们可以接受她的观点，所幸，这些观点渐渐开始被他们所接受和认可。

“厚数据”也是像滴滴这样的互联网巨头公司未来应该发展的方向。

以顺风车为例，它对人的分类是传统的粗暴的，大不了就是年龄、教育水平、性别等等扁平化的信息。根据披露出的滴滴顺风车逻辑，有多少女性用户，就有多少能被吸引来的男性用户。现在的大数据把人的参数做的过于简单：女性是0，男性是1，缺乏对个体复杂性的描述。

而如果能够引入“厚数据”，也许滴滴可以促成有相近的音乐品味、价值观等的司机和乘客的“配对”，让他们的旅程真正变成一种美好的体验。

人们的身份本来就是流动的，她们需要根据场景的不同而变换身份，而在滴滴的逻辑里，孤男寡女进入了封闭的乘车空间，就应该发生点什么，实在是种单一的强盗逻辑。

这恐怕是因为很多数据科学家或产品经理是男性，欠缺女性经验，视野失灵导致的。他们估计从未尝过被司机骚扰是什么滋味，如果他们了解过，也许会对他们曾经的“约会”设计后悔不已。

他们应该与真正的乘客，特别是那些女性乘客互动，了解她们的需要、把她们当成活生生的人，而不只是“胸大”“腿长”这样的数据。

手动改资料是女性们对滴滴顺风车的一次反抗。但从根本上改变还是要靠改变数据科学家的认知。

在互联网数字时代的今天，我们最应该关心的仍然应该是人的温度，而不是冷冰冰的数字。普通人自己在多大程度上能决定我们的未来，在多大程度上能有主体性？这也给研究者提出了挑战。

(致谢：Carrie Neill的专访文章“People are Your Data”、朋友韩阳的启发）

   点击阅读原文是 Tracia Wang 的Ted 演讲：《大数据里丢掉的人类洞察 The Human Insights missing from Big Data》